Awalnya merupakan sekolah homogen, khusus untuk laki-laki. Sejak 1990 mulai menerima siswa perempuan. Ikatan alumni Kolese Gonzaga, dikenal dengan nama Ikagona (Ikatan Alumni Kolese Gonzaga). Rektor pertama sekaligus kepala sekolah Kolese Gonzaga adalah Pater Joseph Ignatius Gerardus Maria Drost (1925-2005).

Pada awalnya, direncanakan sebuah seminari menengah di Keuskupan Agung Jakarta, namun kemudian dipikirkan bahwa mendirikan seminari akan menjadi terlalu mahal biaya operasionalnya. Sebuah kolese akhirnya didirikan bersamaan dan berdampingan dengan seminari di atas tanah seluas 2,8 hektare di wilayah Pejaten Barat ini. Semula tanah ini adalah tanah milik atas nama Alm. Mgr. A. Djajaseputra, SJ., Uskup Agung Jakarta. Atas prakarsa Mgr. Leo Soekoto, SJ., pengganti Mgr. A. Djajaseputra, SJ., dibentuklah sebuah panitia kecil untuk pembangunan kompleks seminari dan sekolah. Pengajuan izin untuk mendirikan bangunan sudah dimulai sejak tahun 1978, namun baru lima tahun kemudian izin keluar. Maka sejak saat itu panitia kecil yang telah ditunjuk terus bekerja keras, menghimpun dana, dan mengadakan studi-studi untuk merencanakan pembangunannya. Tidak lebih dari 2 tahun (1986-1987), seluruh kompleks seminari yang dirancang oleh Ir. Wanda Basuki ini selesai dikerjakan.  Tanggal 3 November 1988 merupakan hari bersejarah bagi Kolese Gonzaga. Pada hari itu sekolah bernama Kolese Kanisius Unit Selatan diresmikan oleh Mgr. Leo Soekoto, SJ. bersama dengan Bapak Mochtar Zakaria, Wali kota Jakarta Selatan. Berkat kerja keras Pater Joseph Ignatius Gerardus Maria Drost SJ, kepala sekolah sekaligus rektor pertama bersama seluruh staf pengajar dan karyawan, pada tahun ajaran ke-4, tepatnya tanggal 9 Januari 1991, Kolese Gonzaga mendapatkan status disamakan dari pemerintah.